операция с плавающей запятой

См. также в других словарях:

• Операция (в ЦВМ) — Операция в ЦВМ, нахождение некоторой величины (элемента данных) в результате выполнения цифровой вычислительной машиной специального действия, указанного командой программы, над одной или несколькими исходными величинами. Величины, представляющие …   Большая советская энциклопедия

• Операция — I Операция (от лат. operatio действие)         1) законченное действие или ряд действий, направленных на решение определённой задачи, достижение поставленной цели, например О. военная, О. хирургическая 2) Очередное, периодически повторяющееся… …   Большая советская энциклопедия

• Число с фиксированной запятой — Число с фиксированной запятой  формат представления вещественного числа в памяти ЭВМ в виде целого числа. При этом само число x и его целочисленное представление x′ связаны формулой , где z  цена (вес) младшего разряда. Простейший… …   Википедия

• Блок операций с плавающей точкой — Математический сопроцессор 80x287 в колодке на базовой плате персонального компьютера. Сопроцессор Motorola 68881 Математический сопроцессор сопроцессор для расширения командного множества центрального процессора и обеспечивающий его… …   Википедия

• SIGFPE — Описание: Ошибочная арифметическая операция По умолчанию: завершение с дампом памяти коды SA SIGINFO FPE INTDIV Целочисленное деление на нуль FPE INTOVF Целочисленное переполнение FPE FLTDIV Деление на нуль с плавающей запятой FPE FLTOVF… …   Википедия

• Математический сопроцессор — 80x287 в колодке на базовой плате персонального компьютера …   Википедия

• Фиксированная запятая — Число с фиксированной запятой  формат представления вещественного числа в памяти ЭВМ в виде целого числа. При этом само число x и его целочисленное представление x′ связаны формулой , где z  цена (вес) младшего разряда. Простейший… …   Википедия

• Килофлопс — Производительность суперкомпьютеров Название год FLOPS флопс 1941 100 килофлопс 1949 103 мегафлопс 1964 106 гигафлопс 1987 …   Википедия

• Петафлоп — Производительность суперкомпьютеров Название год FLOPS флопс 1941 100 килофлопс 1949 103 мегафлопс 1964 106 гигафлопс 1987 …   Википедия

• Петафлопс — Производительность суперкомпьютеров Название год FLOPS флопс 1941 100 килофлопс 1949 103 мегафлопс 1964 106 гигафлопс 1987 …   Википедия

• Тфлопс — Производительность суперкомпьютеров Название год FLOPS флопс 1941 100 килофлопс 1949 103 мегафлопс 1964 106 гигафлопс 1987 …   Википедия